เกออร์ค ซีม็อน โอห์ม มีบิดาชื่อ โยฮัน โอห์ม (Johann Ohm) มีอาชีพเป็นช่างทำกุญแจและปืน ด้วยอาชีพของโยฮัน โอห์ม ทำให้ต้องตระเวนเดินทางค้าขายในบริเวณที่เป็นเยอรมนีและฝรั่งเศสปัจจุบัน ขณะที่ค้าขายอยู่นั้นก็ถือโอกาสศึกษาวิชาปรัชญาและคณิตศาสตร์ไปด้วย จนโยฮันอายุได้ 40 ปี ได้ตั้งรกรากอยู่ที่เมืองแอร์ลังเงิน แต่งงานและมีบุตรด้วยกัน 2 คน คือ ซีม็อน (Simon) และมาร์ทีน (Martin)

แม้ว่าฐานะทางครอบครัวของโอห์มจะค่อนข้างยากจน แต่โอห์มก็ขวนขวายหาความรู้อยู่เสมอ โอห์มเข้าเรียนที่โรงเรียนมัธยมแห่งหนึ่งในบัมแบร์ค หลังจากจบการศึกษาขั้นต้นแล้ว โอห์มได้เข้าศึกษาเกี่ยวกับวิชาคณิตศาสตร์และวิทยาศาสตร์ที่มหาวิทยาลัยแอร์ลังเงิน และต่อมาโอห์มก็ได้ลาออกจากมหาวิทยาลัย ขณะที่เขาศึกษาอยู่ในมหาวิทยาลัยได้เพียง 3 เทอม เหตุเพราะว่าโอห์มขาดทุนทรัพย์ ไม่มีเงินพอที่จะศึกษาต่อ ทำให้โอห์มต้องประกอบอาชีพเป็นครูตั้งแต่อายุเพียง 18 ปี โอห์มเป็นครูสอนหนังสืออยู่ที่อารามก็อทชตัท (Gottstadt) ซึ่งอยู่ในเขตรัฐแบร์นของสวิตเซอร์แลนด์ ช่วงแรกที่โอห์มเข้าทำงาน เขาไม่ได้รับความไว้วางใจจากนายจ้าง เนื่องจากไม่เคยเห็นฝีมือการทำงานของโอห์มและเห็นว่าเขายังอายุน้อยเกินไป แต่เมื่อเวลาผ่านไปนายจ้างได้เห็นฝีมือการทำงานของโอห์ม ก็กลายเป็นบทพิสูจน์ว่าเขาเป็นผู้ที่มีความสามารถจนได้รับการยกย่อง ขณะที่โอห์มทำการสอนหนังสือ เขาได้หมั่นฝึกฝนค้นคว้าหาความรู้ด้วยตนเองอยู่เสมอ จนต่อมาเขาได้มีโอกาสเข้าไปศึกษาต่อในมหาวิทยาลัยแอร์ลังเงินอีกครั้งหนึ่ง และได้รับปริญญาเอกทางด้านวิชาคณิตศาสตร์ในปี ค.ศ. 1811 ขณะนั้นยุโรปกำลังลุกเป็นไฟ เนื่องจากจักรพรรดินโปเลียนแห่งฝรั่งเศสกำลังเรืองอำนาจได้ยกกองทัพไปรุกรานประเทศที่ใกล้เคียง ทำให้แต่ละประเทศได้รับความเดือดร้อนไปทั่ว

แต่ละชาติร่วมมือกันเพื่อต่อต้านนโปเลียน โดยบรรดารัฐเยอรมันได้เข้าร่วมด้วย เป็นเหตุให้คนหนุ่มผู้รักชาติอย่างเกออร์ค ซีม็อน โอห์ม พยายามที่จะเข้าไปเป็นทหารอาสาสมัครในกองทัพต่อต้านนโปเลียน แต่ถูกบิดาของเขาคัดค้านเพราะเห็นว่าความรู้ที่โอห์มมีจะมีประโยชน์แก่ประเทศชาติมากกว่าที่เขาจะไปออกรบทำศึก เมื่อโอห์มใคร่ครวญดูแล้วก็มีความเห็นตามคำแนะนำของบิดา เขาจึงกลับมาเป็นอาจารย์เช่นดังเดิม ค.ศ. 1817 โอห์มได้ศึกษาค้นคว้าและพิมพ์ผลงานของเขาออกเผยแพร่ ปรากฏว่าผลงานของโอห์มเป็นที่พอพระทัยของพระเจ้าฟรีดริช วิลเฮ็ล์มที่ 3 แห่งปรัสเซีย จึงทรงแต่งตั้งให้โอห์มดำรงตำแหน่งอาจารย์วิชาคณิตศาสตร์และวิชาฟิสิกส์ในโรงเรียนเยสุอิตแห่งโคโลญ